面向视频深度研究报告的 Agent 基准与评测框架
🧭 Agent 评测 · 视频深度研究报告
Peking University · Alibaba Token Hub, Alibaba Group
构建首个以源视频为中心的深度研究 Agent 基准 OmniDR-Bench，并提出原子化 Rubric 树评测方法
📌 工作参考价值（4 点）
- 可将 Omni-ARTs 的原子化 rubric 树和 ARC 构建流程复用到电商视频内容评测（如商品讲解、直播回放、教程视频），对 Agent 生成的卖点摘要做逐条可验证打分，替代模糊的 LLM-as-judge。
- skill-based workflow 提供可插拔结构，适合在商品视频导购/答疑 Agent 中按“问题拆解 → 多模态证据检索 → 交互式报告/回答卡片”组织 pipeline，尤其要求输出带时间戳引用，直接匹配短视频带货场景的卖点溯源。
- 当前 Agent 在跨模态因果推理和引用准确性上仍是明显短板，业务上做视频问答或报告生成时，应增加对引用证据的强校验层（检索片段强制回挂时间戳并二次校验），避免 LLM 幻觉影响用户决策。
- 中英文双语任务与 19 个真实子类别设计可参考，用于构建电商垂直领域的视频 Agent 回归集，覆盖不同品类和问题类型。
OneSearch-VL：统一图像/视频的多模态深度研究 Agent
🧭 多模态深度研究 Agent 统一训练 ★ 深度解读
BUAA · CUHK · NTU · THU · HFUT
以视觉证据图 VGEG 与证据/定位双层奖励 EVGR 为核心，统一训练单图、多图、视频深度研究 Agent
📌 工作参考价值（4 点）
- 用显式证据图统一数据构造、SFT 轨迹过滤与 RL 过程奖励：在电商商品图像/视频理解中，可构建「视觉 anchor → 商品实体 → 来源化属性事实 → 答案操作」的 VGEG 结构，使商品问答/导购 Agent 的证据链路可追溯，便于生成训练数据和做细粒度评测。
- 把过程奖励拆成 evidence traceability + visual grounding 两个维度：最终答案正确之外，分别检验检索事实是否被工具观察支持，以及模型是否真的定位到正确商品区域/视频帧。消融显示两者同时使用比只用答案+query 奖励平均高 3.8 个点，适合迁移到电商多模态 Agent 的 RL 训练，降低幻觉和“不看图就答”。
- 评测按 research operation 分层，而不是只报总体准确率：单 anchor lookup、multi-hop、多 anchor join/comparison/arithmetic、knowledge-conditioned counting 等操作化分层，能定位 Agent 具体弱项；电商场景同样可以按“属性抽取、跨商品比较、规格计算、多图统计”拆 benchmark，避免平均分掩盖能力短板。
- 单图/多图/视频联合 SFT 有跨输入迁移收益：共用同一套 action-observation 工具 schema 和动作空间，联合训练达到 55.8 平均分，优于单类型训练；电商场景中商品主图、多角图、商品视频共用一套策略，可以减少多套系统维护成本并提升一致体验。
Video-RSI：通过 Harness 进化的视频理解 Agent 递归自我改进
🧭 Agent 自我改进与工具/harness 进化
Tsinghua University · Harbin Engineering University
让视频理解 Agent 用自身 LM 修正可执行 harness，通过主动回访视频与成本感知进化提升精度并降低视觉成本
📌 工作参考价值（4 点）
- 可将「看哪些帧/片段、调用哪些工具、如何利用观察」抽象成可执行 harness 层，在电商直播切片、商品视频理解等场景中，按准确率与视觉成本（如帧采样数、API 调用量）做多目标筛选与保留，控制推理成本。
- 失败诊断时不要只依赖当前执行 trace，可让 Agent 主动回访原始视频/用户行为序列等原始数据，用额外观察区分竞争性失败解释（是检索遗漏、描述丢失还是推理错误），这一思路可迁移到搜索推荐 Agent 的调试与自改进。
- 利用 Agent 自身 LLM 生成 harness 修订，并用验证集筛选可复用修改，形成递归自我改进闭环，减少人工调优工具/策略的工作量。
- 直接业务价值有限：论文面向视频理解基准，与电商推荐核心链路（召回、排序、query 推荐）结合度不高，但层次化工具控制与成本感知进化思路值得 Agent 架构设计参考。
直播视频中的产品定位理解
🧭 多模态视频产品理解与时刻定位
Kuaishou Technology · Institute of AI for Industries, Chinese Academy of Sciences
提出GPUB基准和UniPro模型，联合评估产品检索与时刻定位，大幅提升直播视频产品理解性能
📌 工作参考价值（4 点）
- 直播电商中产品信息分散在多个非连续片段，仅做产品检索或片段定位无法满足自动剪辑、摘要等需求。可借鉴GPUB的联合任务定义，在业务中构造“产品-片段”对齐数据，训练模型同时输出产品ID和对应时刻，直接用于产品讲解片段自动生成。
- UniPro采用共享多模态编码器同时处理视频和产品目录，并强制学习产品对齐和时间结构化表示，相比分离式两阶段方案能更好地利用产品与时刻的对应关系。实际部署中可复用该架构，在召回或粗排阶段同时输出产品候选和关键片段，减少级联误差。
- 面对31K规模产品目录，UniPro的候选集构建和负采样策略值得参考：可利用直播中出现的产品时序信息构造hard negative，提升模型区分相似产品的能力，尤其适用于时尚等非标品类。
- 评估指标Pair mAP@.3和Joint R@1@.3同时衡量产品检索和时刻定位的联合精度，比单一指标更能反映真实业务效果，建议在类似多模态理解任务中采用。
时序自蒸馏：无监督学习视频视觉状态跟踪
🧭 自监督时序自蒸馏训练视频状态跟踪
Mohamed bin Zayed University of Artificial Intelligence · ELLIS Institute Finland · Aalto University
用时间采样密度作为自监督信号，让稀疏帧学生匹配稠密帧教师的 next-token 分布，无需标签或额外教师即可提升视频状态跟踪
📌 工作参考价值（4 点）
- 视频/直播电商场景：对商品展示、使用过程、库存/数量变化等短视频，用稠密帧采样的同模型输出蒸馏稀疏帧模型，可在不增加线上推理成本的前提下提升状态/数量判断；souping/轻量视觉编码器适配可作为后续增强手段。
- 无标签数据利用：可以低成本生成合成 clip（物体颜色、数量、位置变化），用 S3T 式的自监督时序蒸馏预训练视频理解模块，再迁移到真实 UGC/广告素材的内容审核或卖点提取。
- Agent/多模态 LLM 训练：如果业务中有连续视频流（如智能客服/导购 Agent 看商品视频），将时间采样密度作为特权信息，让同一模型在自己的稠密/稀疏视图间做 next-token 分布蒸馏，不需要额外 judge，能提升跨时间状态跟踪，且不增加部署成本。
- 如果要改进现有 VLM 在电商视频问答上的表现，可优先考虑对视觉编码器做小规模适配+权重 soup，而非重新训练；论文显示这些组合能稳定提升状态跟踪。
视频场景下多模态大模型指令遵循能力的评估基准
🧭 多模态LLM指令遵循评估
Tencent Youtu Lab · Tencent Hunyuan · TJU · SJTU · CUHK
提出Video-IFBench，系统评估视频理解中MLLMs的指令遵循能力，含1500样本和39类约束
📌 工作参考价值（4 点）
- 约束分类体系可复用：电商视频场景中用户指令常含多个视觉/音频约束（如“找出视频中穿红色衣服且位于画面左侧的人”），可借鉴其39类约束设计评估或训练数据，提升模型对复杂query的遵循能力。
- 半自动数据构造流水线：结合MLLM生成、程序化处理和人工验证，可低成本构建领域专用的指令遵循数据集，适合业务迭代。
- 评估发现的启示：当前模型在复杂条件分支和语义约束上表现差，提示在Agent系统中需增加指令解析模块或结构化输出约束，避免直接依赖端到端生成。
- 多模态推荐借鉴：视频推荐/搜索中用户query可能包含条件选择（如“如果出现A则返回B，否则C”），可参考其嵌套指令模板设计更严格的评测集。
TLive-Omni：面向电商直播的全模态理解模型
🧭 多模态大模型 · 电商直播理解
Taobao & Tmall Group of Alibaba
面向电商直播的全模态理解模型，通过三阶段监督训练和 Faithful-RFT 强化微调，实现长时多模态流的准确实时理解
📌 工作参考价值（4 点）
- 直播场景中商品信息分散在语音、视频帧、商品图、叠加文字和用户 query，可借鉴 Per-vGrid 时间戳 token 组织：将视频 grid 与对应的音频段放在显式边界 token 内，强化时序对齐，适合长视频理解任务。
- Faithful-RFT 强化微调思路值得迁移：直接对最终答案使用任务可验证反馈打分，而不在 rollout 过程中优化推理式探索，能平衡答案忠实度与实时响应，对电商推荐/客服等延迟敏感场景有参考价值。
- 数据生产引擎将直播音视频流自动转为 ASR、说话人分析、视觉 grounding、OCR、时序 grounding、dense caption、全模态 QA 等原子能力训练信号，可复用到电商内容理解、商品属性抽取与标注。
- 工程实现上，同步长度分组采样减少 padding 且保持多 worker 负载均衡，轻量动态采样保持 GRPO 相对优势，对大规模多模态训练有实用参考。
OmniScope：面向全模态大语言模型的模态解耦Token压缩
🧭 全模态LLM推理加速 · 模态解耦压缩
Xiamen University · Alibaba Group
训练无关的模态解耦压缩框架，解决音视频跨模态显著度错配，实现高效全模态推理
📌 工作参考价值（4 点）
- 模态解耦思想可迁移到多模态推荐：在视频+音频+文本场景下，不同模态对点击/转化的贡献峰值可能不同时，应独立计算各模态token显著性再融合，避免跨模态指导遗漏关键信息。
- 训练无关压缩框架可直接嵌入已部署的多模态大模型，不增加微调成本；根据内容复杂度动态分配各模态token预算，适合工程化轻量实现。
- anchor-delta视觉剪枝策略保留全局上下文与时序变化，可用于商品展示视频或直播帧采样，保留关键变化帧的同时降低token数。
- 音频按秒合并的冗余去除方法可应用于直播语音或客服会话的压缩，减少后续模型输入长度，提升吞吐。
Light-Omni：以反思取代推理的轻量级长时记忆视频智能体
🧭 Agent 轻量级视频理解框架
Nanjing University
通过全局与隐状态实现单步上下文驱动动作，以反射取代迭代推理，速度提升12.1倍、精度提高2.4%
📌 工作参考价值（4 点）
- 全局状态压缩历史的方法可迁移到推荐系统的用户行为序列建模：通过层次化合并保留近期细节、总结远期事件，平衡记忆容量与信息保真度
- 隐状态直接驱动动作的架构能避免昂贵的长链推理，适用于实时推荐中的快速决策（如排序、召回策略的动态生成）
- 双状态设计（全局上下文 + 条件化隐状态）分离了语义理解与动作执行，可借鉴到 Agent 框架中提升检索语义对齐性
- 记忆系统作为即插即用模块增强现有模型，推荐大模型可引入类似长短期记忆以提升连续会话的上下文一致性
HYDRA-X：以整体视觉分词器实现原生统一多模态模型
🧭 统一视觉分词与多模态理解/生成
Nanjing University · CASIA · Tencent Hunyuan · Zhongguancun Academy · Shanghai AI Lab
首个以单一ViT统一图像与视频分词的原生视觉分词器，通过分层时间压缩与潜在级语义注入提升重建与编辑一致性
📌 工作参考价值（4 点）
- 对电商商品多模态处理：统一分词器可直接编码商品图片和视频至同一潜在空间，简化多模态商品表征流水线，减少编解码器数量。
- 视频内容压缩借鉴：分层时间压缩策略（优于单步压缩）与轻量解压器设计，可迁移至短视频商品描述或虚拟试穿场景，在保持语义的同时降低序列长度。
- 编辑任务中的交互层级选择：论文发现将源-目标交互放在分词器潜在层（而非LLM语义层）能显著提升编辑一致性和收敛速度，该 insight 可应用于多模态对话式商品编辑或海报生成。
- 训练策略启示：联合图像-视频教师监督可增强潜在空间语义结构，类似原理可用于多任务商品理解模型，联合商品图片和视频标签进行预训练。
InternVideo3：通过多模态上下文推理实现基础模型智能体化
🧭 多模态 Agent · 长视频推理 ★ 深度解读
Shanghai AI Laboratory · Shanghai Innovation Institute · Nanjing University
提出多模态上下文推理（MCR）与多头潜在注意力（M²LA），将开放视频模型推向长程视觉智能体
📌 工作参考价值（4 点）
- MCR 闭环范式可用于多步商品理解：将商品多模态信息、用户查询、工具调用结果维护在统一上下文中，递归观察-推理-动作，适合直播切品、复杂选品等需要动态环境交互的场景，可直接借鉴其对证据积累和信念更新的设计。
- M²LA 可降低多模态 Agent 的 KV Cache 开销：通过潜在注意力压缩保留全部视觉 token 的同时减少缓存内存，对于需要长对话历史、多轮商品对比或超长视频分析的电商客服 Agent 很实用，可尝试类似低秩映射和模态自适应适配器来优化线上成本。
- 分阶段训练配方可复用：先通过 M²LA 转换后的 continued pretraining 恢复能力，再用短到长的课程 SFT、基于规则验证的 RL 和 on-policy 蒸馏，这种组合对公开基座模型增强长程推理和工具使用能力路径清晰，适合在自身业务基座上微调推理能力。
- 层次化记忆与递归验证可提升回答可靠性：论文中的分层记忆（帧/片段/场景）、问题路由、检索与自我验证机制，可用于商品视频问答或导购 Agent 中，降低幻觉并强制答案有据可依，特别是遇到不确定时重新检索证据再修正答案的思路值得实现。
Video2LoRA：通过参数化视频内化降低 VLM 推理成本
🧭 视觉语言模型 · 视频压缩内化
University of Maryland, College Park
用超网络从视频直接预测 LoRA 权重，查询时零视觉 token，保持性能的同时大幅降低延迟和吞吐成本
📌 工作参考价值（4 点）
- 对于电商商品视频、直播切片等需要反复问答的场景，将视频内化为 LoRA 权重后，后续查询完全省去视频帧编码，可实现 6~80 倍的首 token 延迟降低和 1500 倍的视觉 token 负载缩减，适用于对同一内容多次交互的 Agent 或推荐解释链路。
- 超网络预测 LoRA 权重的思路可迁移到其他多模态输入的快速适配：如图集、商品描述集合等，用一次前向生成一个适配器，替代传统微调，快速构建个性化模型。
- 发现不重叠视频段独立生成的 LoRA 可在秩空间直接相加组合，这为长视频（如长时直播回放）的分块处理提供了可能，可在电商视频理解中用于处理超长商品讲解或直播内容。
- 单次前向生成适配器的架构设计（感知器超网络读取冻结 VLM 中间层特征）可作为“模型即存储”的参考，当业务需要反复访问同一批多媒体内容时，可将内容压缩为轻量权重，减少对上下文窗口的依赖。
早期Token压缩完成快速视频理解
🧭 多模态视频理解效率优化 · Token压缩
Zhejiang University · Westlake University · Alibaba Cloud Computing
提出训练无关的视觉编码器内部早期token压缩框架EarlyTom，显著降低TTFT和计算量
📌 工作参考价值（4 点）
- 视觉编码器内压缩可大幅降低首Token延迟：在实时视频理解或推荐场景（如短视频内容分析、直播审核），可以直接借鉴EarlyTom的帧合并策略，在编码器中间层提前丢弃冗余帧，无需重新训练模型，即刻提升推理速度。
- 解耦空间Token选择减少压缩偏差：在生成式推荐（如基于视觉的个性化feed）中，对图像/视频帧的空间信息进行压缩时，采用独立于通道的选择方式（如空间注意力引导的token保留）可以避免重要细节丢失，保持推荐准确性。
- 训练无关方法易于集成：该方案不依赖额外训练，可直接插入现有Vision-LLM流水线，适合快速迭代的工业级系统，尤其在对延迟敏感的Agent或多智体交互中，能快速实现多模态模块的加速。
- 对视频多模态系统的工程启示：揭示了视觉编码器在端到端推理中的时间占比过高问题，从业者应优先优化编码器而非仅关注LLM部分，类似思路可用于电商场景中的商品视频理解、虚拟主播驱动等任务。
长视频关键帧检索：查询分解为工具调用与布尔合并
🧭 长视频理解 · 查询分解与工具调用 ★ 深度解读
University of Illinois at Urbana-Champaign
ToolMerge 用 LLM 规划器将查询分解为多个轻量视觉工具调用，并通过布尔运算符合并排名，在长视频关键帧检索上取得领先
📌 工作参考价值（4 点）
- 查询分解与工具融合范式：在电商搜索或商品推荐中，可将一个复杂查询（如“红色连衣裙，有蕾丝，适合晚宴”）分解为多个独立检索流（颜色、材质、场景），每个流用专用 scoring 工具，再用布尔 rank 合并（AND/OR）代替简单加权，可提升多属性检索精度。
- 轻量级检索 + LLM 规划器分离：工业级系统可沿用 SigLIP/CLIP 等轻量模型做粗筛，OCR 等规则做精准补充，再由 LLM 规划器决定如何组合，无需对每一帧或每一件商品调用大模型，大幅度降低延迟和成本。
- 无标注 RL 优化检索策略：GRPO 训练规划器时，仅使用基于时间戳的召回分数作为奖励，无需人工标注最优工具调用序列。这一思路可直接迁移到商品推荐或 RAG 场景，用用户点击或检索命中率作为奖励，通过 RL 优化查询分解策略。
- NMS 去重维持多样性：在最终帧选择中使用的贪婪 NMS（保证最小时间间隔），可借鉴到推荐系统的多样性约束，选择相似度高的候选项进行步进式过滤，平衡相关性和多样性。
ParaVT：驯服并行视频工具调用的工具先验悖论
🧭 Agent 多智体协作与工具调用优化 ★ 深度解读
MiroMind · Nanyang Technological University · The University of Hong Kong · Hong Kong University of Science and Technology (Guangzhou) · Tsinghua University
首个并行视频工具调用多智能体RL框架，识别并解决工具先验悖论导致的格式崩溃与工具跳过问题。
📌 工作参考价值（4 点）
- 工具先验悖论处理：当使用预训练已有工具能力的模型做 RL 微调时，会出现格式崩溃（例如标签错误）和跳过工具的捷径。可借鉴 PARA-GRPO 的探索锚定技术：对关键格式标记（如 </think>、</answer>）施加额外奖励，并用约束生成强制开头标记，稳定结构化输出。在电商 Agent 中，若模型需要生成 API 调用格式，可以类似地对调用标签进行强化。
- 并行工具调度设计：从串行工具调用转为并行调度，能避免错误传播、降低上下文膨胀、实现固定延迟。在推荐系统多路召回或 Agent 多工具并行执行场景中，可以设计主代理一次调度多个子系统并行工作，并聚合结果，提高效率和容错。
- nFrames Gating 创造工具必要性：通过随机控制输入的信息量（如减少概览帧），强制模型在部分样本上必须使用工具，避免奖励黑客行为。此法可迁移到检索增强场景：在训练 Agent 判断是否需要检索时，可随机删除部分文档，确保不使用检索的答案得分低，从而强化检索动机。
- 串行轨迹转并行数据构造：将串行工具调用轨迹合并为单轮并行调用，并用文本总结替代原始输出，既对齐训练格式又控制上下文长度。对于电商操作数据（如搜索、点击、加购），可将顺序操作按独立性合并成并行动作轨迹，用于训练多任务 Agent。
VideoSeeker: 原生代理工具调用驱动的实例级视频理解
🧭 视频理解 · 代理工具调用 · 强化学习
University of Science and Technology of China · Xiaohongshu Inc. · East China Normal University · Xi’an Jiaotong University
用视觉提示和原生工具调用实现实例级视频理解，平均提升13.7%，超越GPT-4o与Gemini-2.5-Pro。
📌 工作参考价值（4 点）
- 数据合成管线借鉴：四阶段自动化生成实例级视频数据的流程（空间/时间定位标注、工具调用轨迹），可用于构建商品视频细粒度识别、直播片段检索等场景的高质量训练数据。
- 原生工具调用训练范式：冷启动监督+GRPO强化学习内部化工具调用能力，可迁移至电商多模态Agent（如商品问答、视频导购），让模型自主决定何时调用时空定位工具。
- 视觉提示交互设计：以框、掩码等视觉提示替代纯文本描述，提升时空指代精度，适用于商品图像区域标注、视频高光剪辑等交互式应用。
- 反思机制与奖励设计：通过反思步骤和多维度奖励（定位精度、推理正确性）优化策略，可直接参考用于生成式推荐或对话Agent的RL微调，平衡探索与利用。